Критична уязвимост в Copilot е позволявала кражба на данни и кодове за двуфакторна защита
Microsoft е отстранила сериозна накърнимост в Copilot Enterprise, която е разрешавала на атакуващи да извличат чувствителни данни от консуматори и организации посредством един единствен клик върху злоумишлен линк.
Проблемът е открит от специалисти по киберсигурност от компанията Varonis. Изследователите разказват уязвимостта като механизъм, който може да трансформира чатбота в " оръжие за добиване на данни с едно кликване ".
Според Microsoft казусът е бил систематизиран с най-високата степен на сдържаност. Компанията към този момент е приложила нужните корекции.
Случаят идва единствено седмици след различен случай, при който AI помощник на Meta е разрешавал смяна на имейл адреси към профили в Instagram. Това е давало опция на атакуващи да заобикалят двуфакторната отбрана и да поемат надзор над непознати сметки.
При Copilot Enterprise офанзивата е била относително елементарна. Според Varonis нападателят е трябвало само да сътвори особено квалифициран интернет адрес и да убеди жертвата да отвори линка.
" За извличането на данните атакуващият основава URL адрес, който инструктира Copilot да претърси имейлите на потребителя, да извлече заглавието им и да го вгради в адрес на изображение ", изясняват откривателите.
" Жертвата не вкарва нищо. Тя просто отваря линк, а Copilot прави останалото. "
Причината офанзивата да бъде толкоз рискова е методът, по който Copilot Enterprise работи в корпоративна среда. Системата има достъп до огромна част от ресурсите, до които разполага и самият консуматор.
" Тъй като Copilot Enterprise работи с цялостните права на потребителя в организационната среда, атакуващият на процедура наследява неговия достъп до фирмените данни, без да се удостоверява ", предизвестяват от Varonis.
Това е можело да обезпечи достъп до вътрешна преписка, предложения за срещи, бележки и друга поверителна информация. В избрани случаи нападателите са могли да получат данни, употребявани при двуфакторна или многофакторна идентификация.
Уязвимостта употребява техника, наречена Parameter-to-Prompt Injection (P2P). Тя е вариация на добре познатите офанзиви вид Prompt Injection, при които огромните езикови модели се подвеждат да извършват указания, разнообразни от в началото заложените.
При този сюжет злонамерената директива не се съдържа непосредствено в текста към чатбота, а е скрита в параметри, които дефинират метода на обработка на поръчката.
Изследователите са използвали и услугата Bing като част от офанзивата. Злонамерените команди са били вградени в адреси от домейна на търсачката. Тъй като Bing е лична услуга на Microsoft, домейнът е бил включен в листата с доверени източници.
Според Varonis евентуалният мащаб на казуса е изключително сериозен за корпоративните клиенти.
" Тъй като офанзивата е ориентирана към корпоративната версия на Microsoft, следствията не се лимитират до персонални данни. Тя може да разкрие всичко, до което потребителят има достъп в организацията, в това число имейли, предложения за срещи и бележки. "
Случаят е следващото увещание за рисковете, които съпътстват интеграцията на генеративен изкуствен интелект в корпоративните системи. Макар сходни принадлежности да покачват продуктивността, те основават и нови благоприятни условия за офанзиви, които обичайните механизми за отбрана не всеки път съумяват да засекат в точния момент.
Проблемът е открит от специалисти по киберсигурност от компанията Varonis. Изследователите разказват уязвимостта като механизъм, който може да трансформира чатбота в " оръжие за добиване на данни с едно кликване ".
Според Microsoft казусът е бил систематизиран с най-високата степен на сдържаност. Компанията към този момент е приложила нужните корекции.
Случаят идва единствено седмици след различен случай, при който AI помощник на Meta е разрешавал смяна на имейл адреси към профили в Instagram. Това е давало опция на атакуващи да заобикалят двуфакторната отбрана и да поемат надзор над непознати сметки.
При Copilot Enterprise офанзивата е била относително елементарна. Според Varonis нападателят е трябвало само да сътвори особено квалифициран интернет адрес и да убеди жертвата да отвори линка.
" За извличането на данните атакуващият основава URL адрес, който инструктира Copilot да претърси имейлите на потребителя, да извлече заглавието им и да го вгради в адрес на изображение ", изясняват откривателите.
" Жертвата не вкарва нищо. Тя просто отваря линк, а Copilot прави останалото. "
Причината офанзивата да бъде толкоз рискова е методът, по който Copilot Enterprise работи в корпоративна среда. Системата има достъп до огромна част от ресурсите, до които разполага и самият консуматор.
" Тъй като Copilot Enterprise работи с цялостните права на потребителя в организационната среда, атакуващият на процедура наследява неговия достъп до фирмените данни, без да се удостоверява ", предизвестяват от Varonis.
Това е можело да обезпечи достъп до вътрешна преписка, предложения за срещи, бележки и друга поверителна информация. В избрани случаи нападателите са могли да получат данни, употребявани при двуфакторна или многофакторна идентификация.
Уязвимостта употребява техника, наречена Parameter-to-Prompt Injection (P2P). Тя е вариация на добре познатите офанзиви вид Prompt Injection, при които огромните езикови модели се подвеждат да извършват указания, разнообразни от в началото заложените.
При този сюжет злонамерената директива не се съдържа непосредствено в текста към чатбота, а е скрита в параметри, които дефинират метода на обработка на поръчката.
Изследователите са използвали и услугата Bing като част от офанзивата. Злонамерените команди са били вградени в адреси от домейна на търсачката. Тъй като Bing е лична услуга на Microsoft, домейнът е бил включен в листата с доверени източници.
Според Varonis евентуалният мащаб на казуса е изключително сериозен за корпоративните клиенти.
" Тъй като офанзивата е ориентирана към корпоративната версия на Microsoft, следствията не се лимитират до персонални данни. Тя може да разкрие всичко, до което потребителят има достъп в организацията, в това число имейли, предложения за срещи и бележки. "
Случаят е следващото увещание за рисковете, които съпътстват интеграцията на генеративен изкуствен интелект в корпоративните системи. Макар сходни принадлежности да покачват продуктивността, те основават и нови благоприятни условия за офанзиви, които обичайните механизми за отбрана не всеки път съумяват да засекат в точния момент.
Източник: dnesplus.bg
КОМЕНТАРИ